Tres demandantes de Tennessee, entre ellos dos menores, demandaron el lunes a xAI de Elon Musk, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir que las personas crearan contenido sexualmente explícito utilizando fotos reales de otras personas.
La demanda, presentada ante el tribunal federal de San José, California, busca obtener la condición de demanda colectiva para las personas en los Estados Unidos que eran «razonablemente identificables» en imágenes o videos sexualizados generados por Grok a partir de imágenes reales de sí mismas. La empresa de inteligencia artificial no respondió de inmediato a la solicitud de comentarios de Reuters.
Tras la polémica suscitada por el contenido sexualmente explícito generado por el chatbot, xAI anunció en enero que había bloqueado a todos los usuarios la posibilidad de editar imágenes de «personas reales con ropa reveladora» y de generar imágenes de personas con ropa reveladora en «jurisdicciones donde sea ilegal».
- Desde entonces, gobiernos y organismos reguladores de todo el mundo también han puesto en marcha investigaciones , impuesto prohibiciones y exigido medidas de protección en un esfuerzo creciente por frenar el material ilegal y ofensivo.
- La demanda alega que xAI no instaló medidas de seguridad para evitar que sus sistemas generaran contenido sexual con menores. Los tres demandantes eran menores de edad en el momento en que se generaron las imágenes.
- Los demandantes alegan que sus imágenes reales fueron alteradas digitalmente para convertirlas en contenido explícito y luego compartidas en línea a través de plataformas, causándoles angustia emocional y creando una molestia pública.
- Están solicitando una indemnización por daños y perjuicios de cuantía indeterminada, el pago de los honorarios legales y una orden judicial que obligue a xAI a cesar las supuestas prácticas.
- «Se trata de niños cuyas fotografías escolares y familiares fueron convertidas en material de abuso sexual infantil», declaró en un comunicado Annika Martin, abogada de los demandantes del bufete Lieff Cabraser Heimann & Bernstein. «Elon Musk y xAI diseñaron deliberadamente Grok para producir contenido sexualmente explícito con fines lucrativos, sin tener en cuenta a los niños y adultos que resultarían perjudicados».
Reportaje de Mrinmay Dey en Ciudad de México; Edición de Edwina Gibbs
Fuente: reuters
